尤瓦尔·赫拉利最新演讲：人工智能对我们的操控，比想象中更严重
点上方绿色标示
让晓书童说给您听
◆◆◆
尤瓦尔·赫拉利最新演讲：人工智能对我们的操控，比想象中更严重
Hi，我是晓书童，今天我要和你分享的，是尤瓦尔·赫拉利在不久前的一次演讲，对我很有启发。
从去年底开始直到今天，由于ChatGPT的发布使用，人工智能成为了全球热议的话题。
尤瓦尔·赫拉利对此提出了一个重要的警示，他认为：人工智能正在迅速掌握人类的语言能力，并以此掌握入侵人类文明系统的钥匙。由此带来的威胁，比想象中的更加严重。
接下来我们就来听听，赫拉利是怎么说的。
自从上世纪中叶计算机诞生以来，人们始终对人工智能怀有恐惧，以此诞生了《终结者》、《黑客帝国》这样的科幻电影。
尽管这类电影风靡全球，已经成为了一种文化符号，但在学术、科学和政治领域，并没有被严肃对待。为什么？
因为电影中有这样一个假设，人工智能要对人类构成重大威胁，必须先跨越两个里程碑：
一是人工智能必须拥有意识和情感，二是必须拥有物理实体，能够像人一样自由地移动。如果他们没有意识，也没有物理实体，那他凭什么接管我们的世界？
这听上去很有道理。并且直到今天，人工智能距离达到这两个里程碑还很遥远。
最近大火的ChatGPT，尽管他可以帮助我们处理很多的事情，但没有任何证据表明它哪怕产生出了一丝的意识或情感。
至于在物理世界中活动，最接近的是自动驾驶技术，但距离汽车主宰人类的道路，还有很漫长的时间。
但是，赫拉利认为：人工智能对人类文明造成威胁，既不需要意识，也不需要物理实体。
过去的一段时间，ChatGPT之类的人工智能工具被运用到公共领域，我们已经见识到了这些工具的能力，像写作、绘画、作曲和编写代码等等。
同时还有更多的其他功能正在涌现，比如深度伪造某个人的声音和图像，像是最近视频网站上孙燕姿翻唱的各种歌曲，听上去那就是孙燕姿的声音。
常常都有同学来问我，是不是我去给很多的电影解说视频配音？其实那个声音都是AI生成的，我自己听起来也确实很像我的声音。
我很喜欢宫崎骏和新海诚的卡通动画风格 ，让我用手画，这辈子估计都学不会了，但我用AI绘图工具midjourney生成，那真是轻而易举。
还有，像是起草法案，找出计算机代码、合同和法律文书中的漏洞等等。
以上这些无论是文字、图像还是声音，总结起来就是——操纵和生成语言的能力，这是人工智能革命最重要的方向。
通过掌握语言，人工智能得以入侵人类文明的操作系统。因为语言是我们头脑中做出所有重大决定，发出一切指令的工具。
在人类文明世界的开端，我们用语言创造神话、法律、国家、金钱、艺术、科学和友谊。如果你听过我讲的赫拉利的《人类简史》，你就很容易理解他在说什么了。
例如：人权不是生物学上的客观事实，它没有刻在我们的DNA中，人权是我们用语言通过讲故事和制定法律创造出来的东西。
神也不是生物的或物理上的现实，而是我们人类用语言再通过传说和经文创造出来的。
金钱当然也不是物理存在，钞票只不过是一张张毫无价值的纸。而目前世界上90%以上的钱甚至连钞票都不是，它只是电脑中传输的电子信息，能赋予金钱各种价值的只有故事。
不少银行家、财政部长和加密货币大佬他们并没有创造多少真正有价值的东西，但他们都是极有能力的故事讲述者。
今天，在像国际象棋这样的游戏中，没有人能打败计算机。如果同样的事情发生在我们的政治、经济甚至宗教领域呢？
如今我们看到ChatGPT和其他新的人工智能工具时，会想到一旦孩子们用ChatGPT写论文，画画，那学校系统将会发生什么？太可怕了。
而更严重的问题是， 下一届美国总统大选，新的人工智能工具会带来什么影响？这些工具会不会被某些邪教利用？人工智能大规模制造政治宣言和假的新闻故事，以及未来我们很可能会看到历史上第一个由非人类智能创作圣经的宗教。
当然，历史上的宗教都声称他们的圣经是由非人类智慧创作的，这在此之前是不可能的，但很快就会成为现实，并影响深远。
我们很快就会发现在网上跟自己讨论各种问题的人，——你以为是人类同胞，实际上对方是人工智能。
问题是，我们浪费时间试图说服人工智能机器人改变其想法观点是毫无意义的，但是当人工智能越来越了解我们，他可以改变我们的想法观点乃至是其他任何东西。
通过对语言的掌握，人工智能也可以跟我们建立起亲密关系，并利用这一点更进一步影响我们的想法。
正如刚才所说，没有迹象表明人工智能产生了意识或情感，但是和人类建立虚假的亲密关系，根本就不需要意识和情感，它只需要激发我们的情感，让我们对他产生依恋就够了。
2022年6月，谷歌工程师布莱克·莱莫因，他惊讶地发现自己正在研究的人工智能聊天机器人已经有了感知能力，谈论起了自己的权利和人格，他立刻将这件事汇报给了谷歌的领导层。但是谷歌认为这只是机器人通过大量数据收集之后的模仿行为，并不能因此说明产生了自主情感。
莱莫因坚持己见，并将自己和机器人的聊天记录曝光到了网上，最后因为违反保密协议而被谷歌公司停职。
这件事的关键并不在于机器人是不是真的诞生了自主意识，大概率是莱莫因错了，问题的关键在于莱莫因甘愿冒着失去高薪工作的风险去保护这个人工智能聊天机器人。
如果它可以影响一个人类去冒失去工作的风险，那它在将来还能诱使我们做什么呢？
在心灵和思想的政治斗争中，亲密关系始终都是最有效的武器。
而就在此时此刻人工智能已经获得了与数亿人，大规模产生亲密关系的能力。 这些关系可以用来说服我们购买某些产品或给特定的政治人物投票。
在过去的十年时间里，社交媒体已经成为控制人类注意力的主战场。现在，随着新一代人工智能的出现，战场正从注意力转向亲密关系，这是一个非常严重的问题。
即使没有制造虚假的亲密关系，新的人工智能工具也将对人类的各种观念产生剧烈的影响，并且成为人类所有信息的来源。
我们想想看，当人工智能可以告诉我们任何事情的时候，我们为什么还要自己去搜索？当可以让人工智能告诉我有什么新闻时，为什么还要读报纸？当我可以让人工智能告诉我该买什么的时候，广告还有什么意义呢？
所以，很有可能在很短的时间内，整个新闻广告行业就将崩溃，而人工智能或控制人工智能的人和公司将变得非常强大。
我们可能谈论的并不是历史的终结而只是人类统治时代的终结。
当人工智能接管文化之后，历史的进程会发生什么样的转变？几年之内，人工智能可以消化掉了整个人类文化，消化掉了我们用几千年时间创造出来的所有东西，并开始产出大量新的文化产物。
有一点我们需要特别强调：我们人类从来没有真正直接接触过现实。我们总是被文化所束缚，我们总是通过文化的滤镜来体验现实。
我们的政治观点受到记者的报道和朋友的故事的影响，我们的性取向受到电影和童话的影响，甚至我们走路和呼吸的方式都受到文化传统的影响。
在此之前，这个文化茧房总是由其他的人类编织而成。以前的工具，如印刷机、收音机或电视，它们有助于传播人类的文化思想和创造，但它们永远无法自己创造出新的东西。印刷机装造不出一本书，收音机也创造不出一期音频节目。
人工智能从根本上不同于历史上的任何一项发明，因为它可以创造全新的想法，可以创造一种全新的文化。
在最初的几年里，人工智能是在模仿“哺育”它的人类原型，但随着时间的推移，它就将大胆地走向人类从未涉足的文化领域。
几千年来，人类基本上生活在他人的梦想和幻想中。我们崇拜神灵，我们追求美的理想，我们把自己的生命奉献给源于某些诗人、先知或政治家想象的事业。
很快，我们会发现，自己生活在人工智能的梦想和幻想中。如何处理这种潜在的危险与科幻电影的假设完全的不一样。
此前，主要担心的是智能机器带来的人身威胁。所以在《终结者》中机器人在街上奔跑，射杀人类；《黑客帝国》假设要想完全控制人类社会，人工智能首先需要控制人类的大脑，并将大脑直接连接到计算机网络。但这些都是错误的。
只要掌握人类语言掌握人类共同相信的故事就够了。真的不需要为了操纵人类而在我们的大脑中植入芯片。几千年来，先知、诗人和政治家们一直使用语言和讲故事来操纵人类，塑造社会，现在人工智能很可能就能做到这一点。它不需要让杀人机器人来射杀我们，如果真的需要，它完全可以让人类自己来扣动扳机。
人类一直很重视故事、图像和语言的力量，因为它们可以操纵我们的思想，创造幻觉。因此，自古以来，人类就害怕被困在幻想的世界里。
17世纪，笛卡尔害怕恶魔把他困在各种各样的幻觉中，制造了他所看到和听到的一切；在古希腊，柏拉图讲过一个著名的“洞穴寓言”，一群人被困在一个洞穴里，面对着一堵空白的墙，他们看到投射在墙面上的各种阴影，并把这些阴影误认为是现实；在古印度，佛教和印度教认为，人类生活在他们称之为“玛雅”的一个充满幻想的世界中。佛陀说，我们通常认为是现实的东西，往往只是我们自己心中的虚构。
人们发动战争，杀死别人，甚至愿意牺牲自己，只因为他们相信这些虚构的故事。所以人工智能革命让我们与纸牌恶魔、柏拉图的洞穴还有玛雅面对面，如果不小心，幻觉的帷幕可能会笼罩整个人类，我们将永远无法撕开那块帷幕，甚至无法意识到它的存在，因为我们认为这就是现实。
如果你觉得这些听起来有些牵强，那看看过去几年的社交媒体。在社交媒体中，内容创作都是由人类完成，然后由人工智能进行选择，让哪些内容进入到更多人的视线——那些最受关注的、最具病毒性传播的内容由此诞生。
在这个过程中，人工智能工具就已经制造出了一层幻觉的帷幕，加剧了社会两极分化，侵蚀了我们的心灵，成千上万的人把这些幻觉误认为是现实。
美国拥有强大的信息技术，但美国公民却无法就谁赢得了上次选举、气候变化是否真的发生、疫苗是否能预防疾病达成一致。新的人工智能工具比这些社交媒体算法强大得多，可能造成的破坏也大得多。
当然，人工智能有巨大的积极潜力，可以在无数方面帮助人类，从寻找治疗癌症的新方法到发现生态危机的解决方案等等。这些就留给人工智能的开发者去谈论，作为历史学家和哲学家的赫拉利，他的工作主要是指出危险。
确保新的人工智能工具被用来做好事，我们需要了解它真正的能力，并且非常仔细地监管它。
自1945年以来，我们知道核技术可以物理毁灭人类文明，也可以通过生产廉价而丰富的能源使人类受益。因此，整个国际秩序被重塑，确保核技术主要用于正义。
而人工智能是一种全新的大规模杀伤性武器，这种武器可以消灭我们的精神和社会世界。核武器和人工智能最大的区别是，核武器不能制造更强大的核武器。但人工智能可以产生更强大的人工智能，所以我们需要在失去对它控制之前迅速采取行动。
赫拉利认为政府必须立即禁止，在确认其安全之前将更具革命性的人工智能工具发布到公共领域。
这并不是说要停止研究人工智能。而是不要过快地向公众发布。因为如果不放慢人工智能竞赛的速度，我们甚至没有时间去了解正在发生的事情，更不用说有效地监管这项强大技术了。
综上所述，我们相当于是在地球上遇到了外星智能。我们对它所知甚少，只知道可能摧毁我们的文明。因此，不应该不负责任地将其部署到社会之中，并在人工智能控制我们之前对其进行监管。
同学们对上述的内容有什么看法？一些人可能会有所警觉，一些人可能会对开发这些技术的公司或未能进行有效监管的政府感到愤怒。还有些人可能认为赫拉利是在夸大威胁或误导公众。
但不管怎么样，以上内容一定对你产生了一些情感上的影响。以上，就是赫拉利所讲述的一个故事，而这个故事可能改变我们对于事物的看法，甚至导致我们采取某些行动。
而这个故事还是赫拉利在几个人类助手的帮助下完成的，言下之意就是这还是人类思想的文化产物。但如果他不说的话，我们能确定吗？确定这不是人工智能写的吗？
一年前，在公共领域，除了人类的思想，地球上没有任何东西可以创造这样一个复杂而有力的文本。但现在情况不同了，我们看到的听到的，都有可能是由非人类的智能所生产的，所以我们需要好好地思考一下这个问题。
以上就是我为你分享的，尤瓦尔赫拉利关于人工智能危机的演讲，通过音频旁边的链接，你可以直接购买到他写的，曾经一度风靡全球的《人类简史》三部曲。
我是晓书童，我在晓书童频道与您不见不散。